人工智能法学是学术泡沫吗？

编者按：

学术虚假繁荣常萦绕于我们耳边，那么，人工智能法学研究是一场学术虚假繁荣吗？从研究成果产出来看，它似乎不是；但是当我们从现实的角度出发来仔细审视之，可以发现，人工智能法学研究似乎更像是一种基于反事实假设的推理，是对逻辑的滥用。本文所言或许过于激进，但不无启发意义。

文章来源：公众号“学术星球”

一、阿尔法狗的愤怒

五六年前，由阿尔法狗引发的人工智能热潮很快席卷了法学圈子。

新的学术增长点出现了。人们津津乐道假设造成了有意识和人格的机器人，然后一本真经地谈论法律如何应对。我的一个学妹即将在一个大律所参加一个讨论会。她把讨论题目给我。题目大概是这样的：

小明参加某公司组织的与机器人阿尔法狗的围棋比赛。比赛之中，小明连胜三局。阿尔法狗“恼羞成怒”，掀起机器臂将小明打翻在地，造成其重伤。问题：在这场事故中，组织者，阿尔法的生产者和阿尔法狗等，哪一个应当对小明的伤害负法律责任？

这就是大所的敏锐和逼格。我不知道这个题目是由某个老成的律师，还是由某个刚从法学院毕业的、他们的学长或学姐设计的。总之，法学院和大律所的学术品位向来一致。

这个题目的设计者是否意识到，一个机器人“恼羞成怒”意味着什么？它得有自尊心和羞耻心。要有自尊心和羞耻心，得有完整的意识和人格。而要能如此，必须有对自身和外部世界的异常丰富的感觉和知识。出题者或许没有问自己，如果有这样一个机器人，到底意味着什么？他或她的目的仅限于假设：

假如机器人跟人一样，那么会怎么样？

多少年过去了，整个人工智能法学圈，仍然没有摆脱这种虚假的反事实假设和推理。在这个假设还只是一个反事实假设时，一切关于它的推理，要么是虚假的，不可判定真假的，要么和除去人工智能障眼法的普通法律推理没有任何差别。

二、法律基于对人和社会特别根本的假设

任何简单试用过ChatGPT的3.5-4版本的人都会惊异于机器对自然语言的处理能力。就在不久以前，许多人还像我一样，以为这是难以置信的。无论ChatGPT在其他方面的能力如何，这一点，堪称壮举。前不久，据说马斯克等人签署暂停所有AI实验6个月的倡议书，从而为AI安全性评估留有充足的时间。

这份倡议书中提到，AI可能有“用宣传和谎言充斥我们的信息渠道”的目标。我们总是很轻松乃至随意地使用条件句来假设，但是，在严肃的推理场合，可能会犯下严重的错误。说AI有了一个目标，意味着什么？什么是目标？拥有目标，对于人类乃至动物是太过平凡的事情，正因于此，我们可能并不清楚做出这个假设意味着什么。

或许，AI需要具备意识或者说心灵。但什么是意识和心灵？AI具备意识或心灵，仍然是我们难以想象的。或许在不久的将来，就像AI对自然语言的处理一样，它们会继续给我们惊喜。或许它们将为我们重新定义意识或心灵，而不是相反，被我们关于意识或心灵的模糊经验和知识定义。然而，这还需要很长的一段时间。在这段时间内，无论AI的能力变得多么强大，它们离具有意识，离拥有一个目标，离具有情绪等等这些人的基质，都还很远，或者，永远。

在这个过程中，我们当然可以有意义地谈论AI带给人们的一些机遇和挑战。比如，AI将令人难以置信地取代许多职业。新闻稿撰写员？×。办公室文书？×。中小学教师？×。插画师？×。影像科医生？×。驾车员？×。这些足够令人赞叹。然而，无论如何，AI还不是人，或者说，不是拥有意识的理性存在物。

这个提醒不是一个对事实的无聊重申。有许多领域基于对人的本性的特别根本的假设，只有当AI的发展触及这些假设，这些领域才受到AI的实质影响。法律和法学就是这样。法律的主体，必须是人或者人建立的组织。这基于有关社会组织和社会生活的一般真理之上：社会是由人来组织起来的，人是社会的个体，享有权利，履行义务，设定目标，付诸行动，提供理由。

如果AI可以代劳一部分医生的工作，对于普通患者而言，被AI诊治和被人诊治，在效果上没有差别，那么我们是否可以将医疗事故的相关概念用于AI？如果发生了医疗事故，相关的法律责任人是AI还是AI在法律上的财产权利人，包括生产、销售、出租、租赁、使用、收益者？如果AI可以取代一部分法官的工作，那么枉法裁判的相关概念是否适用于AI？对于使用AI创作的文艺作品，比如电影剧本、小说或画作，是否应当将著作权赋予它们？

这些假设现在并不属于有意义的理论和实践假设。随便翻开一本研究AI著作权的法学学位论文，你会被告知，AI多么特别，发展多么迅速，能力多么突出，AI的某些作品现在可能让人无法分辨是否为AI或真人所作。

然而你应该问所有这些研究者一个问题：AI作为个人或组织的财产，当这是一个异常清晰的法律事实时，讨论赋予AI以著作权的意义什么？在讨论这些问题之前， 是否应当重新检讨两个问题：AI在何种意义上值得被称为人，以及，是否法律的主体不限于自然人或法人那样的“人”？

于是，你会看到一些法理学的研究者，他们探究法律的主体的哲学根据。他们问，这种根据是否可以经过修改，以拓展到哪怕是将来可以想象的AI？

然而，横亘在这些弄潮儿面前的两个事实是他们不愿意正视的：第一，AI现在以及在可想象的未来，不具有意识或心灵；第二，法律或法学这一领域，像许多其他领域那样，基于对人和社会的特别根本的假设。

这就决定了，在相当长的时期内，法律和法学的框架、范畴和基本预设为AI的能力发展留有巨大的空间。只要AI还没有意识，只要它还是财产，只要它不能向人提出抗议，只要它没有提出权利诉求，无论它的能力发展到何种程度，比如代劳大部分医生或法官的工作，就没有必要严肃开展讨论所谓人工智能法学。

三、反事实与推理

面对上述两个事实，人工智能法学的研究者只好诉诸或明或暗的假设：他们想象，或者提议读者和他们一起想象，假设人类真的开发出了有完整意识和心灵的人工智能，以至于，无论从哪个方面，都不能拒绝称之为人，那么我们的法律实践和理论应当如何应对？这个想象的一个降级版本是，即使还没有实现这样的人工智能，想象它们有一天会实现，那么今天能够为明天做些什么准备？

这看起来多么合理。我们总不能等到真的造出了人之后才思考如何应对它们吧？如果不愿意看到这样的人被造出来，那么对AI研究的行政法和刑事法的约束，现在就应当着手准备。这难道不是一个真问题吗？马斯克等人的倡议书的意思就是这样。

我承认，这是一个真问题。它是一个技术问题，一个公共政策问题，一个政治问题。它甚至一个哲学问题，但，不是法律问题。

目前几乎所有的人工智能法学研究，都在无视以上两个事实并辅之以一个想象性的假设的基础上开展工作。这个研究的基本假设可以总结为：

假如人工智能接近或具有人的意识或心灵，法律应当如何应对？

有问题吗？难道不可以做这样的假设吗？让我们看看它的逻辑：

假如x变成y，那么应当如何或者将会如何？

这样的假设到处都是。设想我追求一个女生，但遭到了她的拒绝。我问她：

假如我变成了百万富翁，你会不会接受我？

显然，这个问题是她能够有意义地回答的。百万富翁是一个经验性的事物。如果她并不看重或者并不特别偏爱金钱，那么她当然可能会做出否定的回答。

但是，假设我问她：

假如我变成了天使，你不会接受我？

这与“假如我变成蜘蛛侠，你会不会接受我？”类似。假如她偏爱自然能力超凡的人，或许会毫不犹豫地做出肯定回答。如果这是一部小说的情节，或者是日常谈话的主题，并没有什么问题，但如果类似的问题发生在政治、法律、哲学和科学领域，就会有很大的问题。

为什么？因为这是一个基于反事实假设的推理，这样的推理，尽管可能被推理者特别真诚和严肃地提出，并不是真实的——这样的推理是不可判定的。假设我变成了天使，你会不会接受我？对于这个问题，我既不能肯定回答也不能否定回答，它是不可判定的。天使并不是经验性的事物。没有人在经验世界中遇到过天使，当然也从来没有出现过有关与天使一起生活的经验材料。天使从来都是被想象的，或者生活在超验的想象世界之中。所以，没有人可以对天使做一个经验性的推理。

我们不能滥用逻辑。从x到y的推理，是需要以在经验世界中曾发现和归纳的x和y的联系为基础的。如果没有这样的基础，从x到y的推理就会失去约束，就会没有可以判定真假的根据。许多人以为，单凭一个想象，就可以做这样的假设或推理，那不过是由于语言的魔力。我们用“天使”这个词似乎足以意指那个东西，或者再加上一些详细的描述。但我们不会成功。当做出那个假设，我们其实仅仅是在语词的世界中活动，没有接触到真实的世界，尽管如此，好像我们已经以语词联系了世界。

做出假设是很轻松的，很随便的，许多假设仅仅在语词的世界中打转而已。然后，我们就以为在此基础上的推理是真实和平常的。

“假设，我变成了天使，你会不会接受我？”无论这个女生如何诚恳回答我，她所做的推理都是没有意义的。人工智能法学的研究者也处于这位女生的类似处境之中。“假设人工智能具有了意识或人格，那么法律上是否应当赋予它们权利主体资格？”多么轻松的假设！但是，这是根本没有办法肯定或否定回答，它是不可判定的。

所有类似人工智能法学研究者的处境，都依赖某种对语言和世界界限的忽略，以及对逻辑的滥用。过去宗教和哲学是这样，现在人工智能法学是这样。语言的魔法使他们的假设或想象轻而易举，使他们以为，好像这是一个有关世界的问题。

本文责编 ✎ 默

青苗法鸣文末征稿启事

“青苗法鸣”微信公众号聚焦社会热点讨论与法学学术交流，为了给大家提供更好的分享-交流-争鸣平台，激励更多的青年学人思考和写作。诚请大家惠赐优稿！

一、长期征稿

稿酬等详情信息请见：2023，全年长期征稿启事！赐稿邮箱：[e-mail]。

二、建议选题如下：

1.法学院校、学科发展历史及未来

2.法学人才培养模式的反思与提升

3.论文写作与案例分析方法

4.学术研究兴趣探索与养成

5.考博经验及读博感悟

6.地方社会治理实例与法治发展

7.民商法学（含婚姻家庭法）基础性问题与前沿热点研究

8.侵犯人身权利类、妨害社会管理秩序类犯罪的基础性问题及前沿热点研究

9.其他法律部门（经济法、行政法、环境法）法典化研究

10.个人信息保护领域法治问题

11.教义学与社科法学研究方法

12.企业合规与法治化营商环境建设

13.司法改革举措、成效的实证类研究

14.社会普遍关注的热点问题

优质笔记&专业咨询

点击青苗法鸣小程序

推荐阅读

联系我们

长期收稿邮箱：[e-mail]

社群交流请添加公共微信：

公共微信1：qmfmggwx  

公共微信2：qmfmggwx2

付费咨询与讲座请添加小助手微信：qfxzsggwx

商务合作请添加微信：zfm18132699180